Хелън Тонер за преврата на OpenAI: „Беше въпрос за доверие и отчетност“

Няколко дни преди Деня на благодарността предходната година, Хелън Тонер и трима нейни сътрудници в борда на OpenAI – най-известната компания за изкуствен интелект в света — уволни основния си изпълнителен шеф Сам Алтман при неочакван прелом.

Причината, която показаха, беше неналичието на искреност на Алтман в връзките му с борда, само че детайлностите бяха минимални. В идващите дни Тонер, шеф в мозъчния концерн за изкуствен интелект към университета в Джорджтаун, Центърът за сигурност и нововъзникващи технологии, се завихри в центъра на рецесия, която заплашваше да раздра компанията на стойност 86 милиарда $. Тя се трансформира в алегорична фигура на опозицията на Алтман, именит и остроумен оператор от Силициевата котловина.

Превратът продължи пет дни, на фона на натоварен напън от мощните вложители, поддръжници и чиновници на стартъпа да възстановят Алтман. Един от съдиректорите на Тонер се върна назад към Алтман, мениджърският екип се втурна в негова отбрана и до края на дългия уикенд Алтман още веднъж беше на мястото си като основен изпълнителен шеф. Тонер беше заставен да подаде оставка.

Сблъсъкът беше повече от конфликт на персони: той провокира световен спор за естеството на корпоративната власт и дали може да се има доверие на днешните софтуерни водачи, с цел да управляват това, което е едно от нашите най-мощните изобретения.

Седнала в задната част на съчуански ресторант покрай парка Сейнт Джеймс в Лондон, Тонер наподобява необезпокоявана от хаоса, който оказа помощ да провокира. В елементарна черна тениска, с късата си, вълниста коса, рационално прибрана обратно, разкриваща дребни изумрудени кичури, 32-годишната жена е малко евентуален зложелател за Алтман. След излизането си от сцената на OpenAI, родената в Мелбърн инженерка остава най-вече безмълвна по отношение на изгонването и по какъв начин се е объркало. За мнозина тя остава загадка.

„ Много е мъчно да погледнем какво се случи и да заключим, че самоуправлението ще проработи в тези компании “, споделя тя, отпивайки жасминов чай. „ Или че можем да разчитаме на структурите за самоуправление, с цел да устоим на натиска на другите типове власт и тласъци, които са в деяние тук.

„ За борда имаше тази траектория на прекосяване от „ всичко е с доста ниски залози, желаете да бъдете много свободни “ до „ в действителност, ние играем тази сериозна управническа функционалност в необикновено високи залози – освен за компанията, само че и за света – обстановка, “ тя споделя.

Ние се обръщаме към задачата с релативно ниски залози да изберем храната си, което ни подтиква да открием взаимното си вегетарианство. Тонер се отхвърли от месото заради съображения за хуманно отношение към животните преди няколко години, тъй че поръчването на обяд става ненадейно елементарно. Решаваме менюто за шерване на зеленчуци, с цел да опитаме колкото се може повече ястия, обединени от любовта ни към пикантните храни.

Никога не съм бил на този конгрес за развлечение или за популярност. Определено равнището на прожекторите, под което аз персонално бях подложен, не беше нещо, което чаках

Тонер беше поканена да се причисли към борда на OpenAI през 2021 година от някогашния си началник Холдън Карновски. Те са работили дружно в основаната в Калифорния организация с нестопанска цел GiveWell, която употребява правилата на ефикасния алтруизъм - спорно обществено и филантропско придвижване, авторитетно в софтуерните среди - за осъществяване на проучвания и разпределяне на грантове. В GiveWell Тонер демонстрира ранен интерес към въпросите на политиката на ИИ, изключително неговата военна приложимост и въздействието на геополитиката върху развиването на ИИ.

Карнофски се оттегляше от борда на компанията и търсеше подобаващ заместител. Тонер знаеше, че OpenAI има комплицирана и необикновена конструкция на ръководство, включваща обвивка с нестопанска цел с дъщерни сдружения с лимитирана облага. (FT има лицензионно съглашение с OpenAI.) Неговият максимален покровител, Microsoft, не има никакво стандартно дялово присъединяване в компанията. Вместо това има право да получи дял от облагата от съответно дъщерно сдружение на OpenAI до избран предел. В своя правилник компанията твърди, че нейното „ главно фидуциарно обвързване е към човечеството “ и че бордът на организацията с нестопанска цел, който ръководи всички действия на OpenAI, би трябвало да работи, с цел да продължи задачата си, вместо да максимизира облагата за вложителите.

Тонер попита в близост — дали този ръб има действителна власт да търси отговорност от компанията? — и беше уверен от хора, близки до него, че ще стане. За нея това се почувства като евентуално скъп метод да способства за развиването на безвреден и потребен ИИ. „ Смешната част е, че мисля, че бордът [OpenAI] филтрира мощно за някой, който би бил . . . приятен, удобен и основател на мостове, и няма да разклаща лодката прекалено много, ” споделя тя.

„ Никога не съм била на този ръб за развлечение или за популярност. Определено равнището на светлината на прожекторите, под което аз персонално бях сложена, не беше нещо, което чаках “, ми споделя тя. „ Мисля, че да имаш дете беше доста потребно. Просто е доста, доста заземяващо. “

Изборът на ресторант на Тонер, Ma La Sichuan, оживено място, украсено в обичайно алено и златно, е завръщане към нейните девет месеца престой в Пекин през 2018 година, когато учи китайски, сама се образова в съчуанска храна и работи като проучвателен сътрудник по ИИ и защитата.

По време на престоя си там тя работи с откриватели в региона на машинното образование и участва на конференции по ИИ и китайската войска, постоянно едни от шепата чужденци. „ Китай постоянно се употребява като сопа в DC . . . да върша неща в AI поради [на] Китай. И постоянно това не е безусловно толкоз тясно обвързвано с това, което Китай в действителност прави или какъв брой добре в действителност съумяват в проектите си, ” споделя тя.

Вегетарианско меню за шерване x2 £56
— Ароматна патица
— Ma po tofu
— Горещ съд с патладжани
— Сух пържен тънък фасул
— Пържен ориз със смесени зеленчуци
Сок от проличава £3
Жасминов чай £2 < br/> Общо (вкл. обслужване) £68,60

Откакто избрахме менюто за шерване, тави с димящи ястия стартират да идват в върволица, предшествани от носещи се аромати на пикантен червен пипер и чесън. Има вегетариански ароматни „ пачи “ палачинки с тънки цилиндри от краставица, праз и сос от хойсин (неочаквано пекинско ядене на сечуанско място, показва Тонер, само че все пак хрупкаво, солено-сладко и вкусно).

Това е последвано от церемониал от районни обичани като ма по тофу и благоуханен на риба патладжан, със изсъхнало ядене от тънък зелен боб, затрупан с дребни купчинки печен чесън и резенчета пикантен червен пипер, които се топят остро езика. Патладжанът има нотки на мисо, които ми харесват.

„ Ма е част от китайската дума за упойка или парализа и това е по този начин, тъй като съчуанският черен пипер вцепенява езика и устните ви “, изяснява тя. „ Донякъде съм привързан към този усет. “

Разговорът се връща към OpenAI и връзките на Тонер с компанията през двете години, през които е била в нейния ръб. Когато тя се причисли за първи път, имаше девет членове, в това число съоснователят на LinkedIn Рейд Хофман, Шивон Зилис, изпълнителен шеф в невротехнологичната компания на Илон Мъск Neuralink, и републиканският конгресмен Уил Хърд. Беше колегиална атмосфера, споделя тя, макар че през 2023 година тези трима членове се отдръпнаха, оставяйки трима неизпълнители в борда, в това число Тонер, софтуерният бизнесмен Таша Макколи и Адам Д'Анджело, основен изпълнителен шеф на уеб страницата Quora, дружно с Алтман и съоснователите на компанията Грег Брокман и Иля Сутскевер.

„ Появих се, когато компанията преминаваше през ясна смяна “, споделя Тонер. „ Разбира се, когато се причислих, беше доста по-сравнимо с това да съм в борда на започваща компания, финансирана от VC, където сте просто там, с цел да помогнете [и] да вършиме това, което основният изпълнителен шеф счита за вярно. Не желаете да се намесвате или не желаете да пречите на каквото и да било. “

Говорите с хора в тези компании и те съвсем ви молят да се намесите извън

Преходът в компанията, споделя тя, е бил интензивен от стартирането на ChatGPT — за което Тонер и останалата част от борда схванаха от Twitter — само че също по този начин и на най-модерния AI модел на компанията, GPT-4. OpenAI мина от изследователска лаборатория, в която учените работеха върху зараждащи се и синьо-небе проучвателен планове, които не са предопределени да бъдат употребявани от масите, до доста по-комерсиален индивид с мощна съществена технология, която имаше далечни въздействия.

Питам Тонер какво мисли за Алтман, индивида и водача. „ Винаги сме имали другарски връзки, той е другарски надъхан “, споделя тя. Тонер към момента има законови отговорности за дискретност към компанията и е лимитирана в това, което може да разкрие. Но в подкаста през май тя гласно твърдеше, че Алтман е заблуждавал борда „ неведнъж “ по отношение на съществуващите процеси за сигурност. Според нея той е укривал информация, съзнателно е представял неправилно нещата, които се случват в компанията, а в някои случаи напряко е излъгал борда.

Тя уточни обстоятелството, че Алтман не е уведомил борда за стартирането на ChatGPT или че има OpenAI Startup Fund, фонд за рисков капитал, който той е събрал от външни лимитирани сътрудници и е взел капиталови решения на – макар че, споделя Тонер, той твърди, че „ е самостоятелен член на борда без финансов интерес в компанията “. Алтман се отдръпна от фонда през април тази година.

В седмиците, предшестващи уволнението през ноември, Алтман и Тонер също се сблъскаха поради документ, който тя беше съавтор, по отношение на публичните усещания за разнообразни разработки на ИИ, което включва известна рецензия към стартирането на ChatGPT. Алтман счита, че това се отразява зле на компанията. „ Ако желаех да подлагам на критика OpenAI, щеше да има доста по-ефективни способи да направя това “, споделя Тонер. „ Честно казано не ми е ясно дали в действителност се е докоснало до него, или е търсил опрощение да се опита да ме измъкне от дъската. “

Днес тя споделя, че всичко това са единствено илюстративни образци, които да посочат към дълготрайни модели на неблагонадеждно държание, които Алтман показва, с борда, само че и със личните си сътрудници. „ Това, което го промени, бяха диалозите с висши ръководители, които организирахме през есента на 2023 година “, споделя тя. „ Това е мястото, където започнахме да мислим и да приказваме по-активно за [направяне] на нещо съответно за Сам. “

Публичните рецензии на решението на борда варират от персонални офанзиви към Тонер и нейните съдиректори – като доста от тях разказват нея като " decel ", някой, който е срещу софтуерния напредък - до отрицание за това по какъв начин бордът се оправи с следствията. Някои означиха, че времето на борда е било неприятно, като се има поради едновременната продажба на акции в OpenAI, което евентуално заплашва изплащанията на чиновниците.

Миналия март самостоятелен обзор, осъществен от външна правна адвокатска фирма на събитията, заключи, че държанието на Алтман „ не наложи унищожаване “. Предприемачът се причисли към борда същия месец. По това време той сподели, че е „ удовлетворен, че цялото това нещо завърши “, добавяйки: „ През последните няколко месеца беше обезсърчително да виждам някои хора за да се пробват да нервират приключването на информация в пресата, с цел да навредят на компанията и на задача. Те не са работили. “

Според Тонер резултатът от прегледа звучеше по този начин, като че ли новият съвет е сложил въпроса дали би трябвало да уволни Алтман. „ Което съгласно мен се пояснява като: „ Той направил ли е нещо нелегално? “ И съгласно мен бордът не би трябвало безусловно да прави оценка държанието му “, споделя тя.

„ Те не са оспорвали на никое място всяко от действителните изказвания, които сме създали за това какво се е объркало или за какво сме го уволнили . . . което беше обвързвано с доверие, отчетност и контрол. “

В изказване до FT ръководителят на борда на OpenAI Брет Тейлър сподели, че „ над 95% от чиновниците, в това число висшето управление, са поискали възобновяване на Сам “. Тонер не може да изясни – и не е планувал – дезертьорството на старши чиновници, в това число на члена на борда Сутскевер, който мина от критикуване към поддръжка на Алтман в границите на дни. „ Научих доста за това по какъв начин другите хора реагират на напън в разнообразни обстановки. “

Ние си проправяме път през празника с резултатност, съгласни, че щипкащото и ароматно ма по тофу е звездата на шоуто. Питам Тонер по какъв начин се е трансформирал животът й от ноември и тя упорства, че не се е трансформирал. Тя резервира работата си на цялостен работен ден в CSET, където поучава висши държавни чиновници по отношение на политиката за ИИ и националната сигурност, прави личен ръжен самун вкъщи със брачна половинка си, немски академик, и всекидневно се оправя с напъните на родителството на дребни деца.